前言
笔者近期在学习 Graph Neural Network (GNN) 相关内容。由于学习资料较多且讲得很清晰,笔者将搜集到的学习资料汇总于此,方便后续复习。也期待这份学习资料的汇总能够帮助到读者。
GNN 基础概念理解
[1] 零基础多图详解图神经网络(GNN/GCN)【论文精读】_哔哩哔哩_bilibili
[2] 简单粗暴带你快速理解GNN_哔哩哔哩_bilibili
Graph Convolutional Network (GCN)
[1] 一文让你看懂图卷积神经网络(GCN)!!! - 知乎
[2] 简单粗暴带你理解GCN图卷积神经网络_哔哩哔哩_bilibili
Graph Attention Network (GAT)
[1] 向往的GAT(图注意力网络的原理、实现及计算复杂度) - 知乎
[2] 简单快速教你理解图注意力网络graph attention network_哔哩哔哩_bilibili
Graphormer
[1] 简单快速带你理解Graphormer:Graph和Transformer的结合_哔哩哔哩_bilibili
[2] Graphormer:融合GNN与Transformer - 知乎
GAT 和 Graphormer 的区别:
GAT 用图结构限制 attention 的范围, 即: 通过 $\text{mask}$ 操作仅 “看” 一阶邻节点
Graphormer 用图结构修正 attention 的打分, 即: 引入可学习的 (1) 最短路径项 和 (2) 最短路径上的边特征聚合项 作为图结构的先验知识来影响 attention 权重